Samuel Allardyce sinh vào tháng 10 năm 1954 trong một ngôi nhà hội đồng tại Old Park Farm Estate, Dudley, là con trai của Robert Allardyce (1916–1989) và Mary Agnes Allardyce (1918–1991). Cha ông là một sĩ quan cảnh sát.[5] Cả cha mẹ ông đều có gốc từ Scotland với cha từ Naim và mẹ từ Dumfries.[6] Ông có một người chị là Mary sinh ra ở Scotland vào năm 1939 và một người anh trai là Robert junior sinh năm 1951. Allardyce được học tại Trường tiểu học Sycamore Green và sau đó là Trường Mons Hill, nhưng đã không thành phố trong kì thi Eleven plus. Sau này ông phát hiện ra mình bị mắc chứng khó đọc.[7] Khi còn nhỏ ông ủng hộ Wolverhampton Wanderers và mơ rằng một ngày ông sẽ chơi và huấn luyện đội bóng.[8]